Ông nổi danh vì có thời gian dài hơn 20 năm làm công tác tác chiến, do đó bạn bè vẫn thường gọi ông với biệt danh là Hiền "tác chiến".

Ông là em ruột của bà Nguyễn Thị Mùi (tức Nguyễn Thị Minh Sơn), vợ của Đại tướng Lê Trọng Tấn.

Ông lập gia đình với bà Lương Ngọc Thư vào năm 1954. Ông bà có với nhau 3 người con (một gái, hai trai).